ARC: Fair Relative Advantage Comparison in Open-Ended Real-World Interaction
ARC：开放世界真实交互中的公平相对优势比较
🧭 Agent RL 策略条件化优势估计 ★ 深度解读
Ant International
提出策略条件化 rollout 分组的 ARC 方法，消除跨策略奖励偏差，提升 agent 工具调用 RL 训练的公平性与稳定性。
📌 工作参考价值（4 点）
- 在对话式推荐/导购 Agent 中，如果存在“直接推商品”、“先反问偏好”、“确认订单/退款”等多种有效响应，可沿用 ARC 思路：训练时给每个 prompt 注入策略指令，按策略分组计算 GRPO/PPO 优势，避免奖励模型偏好某类话术；推理时去掉指令让模型自主选择。这比单纯加 KL 或 reward shaping 更直接解决跨风格奖励偏差。
- INTER3 的通道分离值得迁移到电商客服/导购场景：用户可见的 <answer> 流式输出与内部工具调用解耦，可以在查询库存/优惠/风控时立即给用户进度反馈，显著降低首 token 延迟（4.91s→1.27s）并支持用户打断；实现只需新增 <answer> 特殊 token 和后处理抽取。
- 多通道生成（推理 + 工具 + 用户文本）训练时建议加熵正则，否则易出现模型反复输出无意义 <answer> 块导致的 entropy collapse；混合奖励可结合工具执行结果与交互格式分项打分。
- 课程式减弱或推理时注入策略指令在 agentic 场景不可靠：策略提示应作为训练期方差控制变量保留，推理时不要依赖；这提示业务中不要试图用推断时 prompt 策略控制模型行为，而应在训练期把策略差异纳入比较结构。